Atvērtā koda mākslīgais intelekts: līdzsvara meklējumi starp caurspīdīgumu un drošību

Die Entwicklung offener KI-Systeme nimmt Fahrt auf, stößt jedoch auf Herausforderungen in Bezug auf Transparenz und Sicherheit.

24.08.2024. 15:44
Eulerpool News 2024. g. 24. aug. 15:44

Atvērtā pirmkoda mākslīgā intelekta (MI) attīstība pēdējos mēnešos ir ievērojami pieņēmusies spēkā. Vides apstākļos, kuros tādi uzņēmumi kā OpenAI un Google iegulda miljardus arvien jaudīgākās MI sistēmās, atvērtie modeļi ir guvuši ievērojamus panākumus. Tomēr, neraugoties uz šķietamo panākumu, atklājas būtiska vājība: daudzas no šīm tā dēvētajām atvērtā pirmkoda sistēmām patiesībā ir tikai daļēji atvērtas.

Viens ievērojams piemērs ir Meta ‘Llama’. Lai gan tiek atklāti “Weights”, kas nosaka, kā modelis reaģē uz pieprasījumiem, pamata apmācības dati paliek slēpti. Tas gan ļauj izstrādātājiem pielāgot modeli, taču trūkst caurspīdības, lai modeli izveidotu no jauna.

Here is the translated heading in Latvian:

Par izstrādātājiem šī ierobežotā atvērtība tomēr sniedz priekšrocības.

Atbildot uz to, Open Source Initiative, kas pirms vairāk nekā 20 gadiem izveidoja atvērtā pirmkoda programmatūras definīciju, ir prezentējusi gandrīz galīgo atvērtā pirmkoda mākslīgā intelekta definīciju. Šī definīcija ne tikai prasa publicēt „Weights“, bet arī nodrošināt pietiekamu informāciju par apmācības datiem un pamatā esošo kodu, lai modeli varētu reproducēt.

Šī kustība jau ir radījusi lielāku segmentāciju KI pasaulē. Daudzi uzņēmumi piesardzīgāk izturas pret savu terminoloģiju, lai izvairītos no juridiskām domstarpībām. Piemēram, Mistral savu modeli Nemo sauc par "Open Weights" un apzināti izvairās no termina "Open Source".

Kamēr daļēji atvērtas sistēmas gūst virsroku, rodas arī pilnīgi atvērtie modeļi, piemēram, Olmo valodas modelis no Allena Mākslīgā intelekta institūta. Tomēr vēl nav skaidrs, vai tiem patiešām būs tāda pati ietekme uz mākslīgā intelekta pasauli kā atvērtā pirmkoda programmatūrai uz tehnoloģiju nozari.

Lai nodrošinātu nozīmīgu sasniegumu atvērto KI modeļu jomā, būtu nepieciešamas divas lietas. Pirmkārt, tehnoloģijai būtu jāapmierina pietiekami liela vajadzība, lai piesaistītu kritisko masu lietotāju un izstrādātāju. Kamēr Linux serveru operētājsistēmu jomā piedāvāja skaidru alternatīvu Microsoft Windows sistēmai, KI jomā nav salīdzināma ekvivalenta. Tirgus ir sadrumstalots, un daudzi lietotāji varētu būt apmierināti ar daļēji atvērtiem modeļiem, piemēram, Llama.

Otrkārt, atbalstītājiem, kas iestājas par atvērtu mākslīgo intelektu, vajadzētu sniegt pārliecinošākus argumentus par tā drošību. Perspektīva padarīt tik spēcīgu, vispārēju tehnoloģiju pieejamu visiem rada pamatotas bažas. Tomēr Oren Etzioni, bijušais Allen Institute vadītājs, uzskata, ka daudzas no šīm bailēm ir pārspīlētas. Viņš apgalvo, ka informācija, kas pieejama ar mākslīgā intelekta modeļiem, būtiski neatšķiras no tās, kas jau tagad ir pieejama Google.

Līdz potenciālie riski un ieguvumi no atvērtas mākslīgā intelekta tehnoloģiju nodrošināšanas tiks rūpīgāk izpētīti, šaubas tomēr saglabāsies.

Veic labākos ieguldījumus savā dzīvē
fair value · 20 million securities worldwide · 50 year history · 10 year estimates · leading business news

Par 2 € nodrošiniet

Jaunumi